Giai đoạn trước 1937 được xem là giai đoạn chuẩn bị của Tân nhạc. Trong bài Lịch sử Tân nhạc Việt Nam, nhạc sĩ Trần Quang Hải gọi đây là "giai đoạn tượng hình". Còn Phạm Duy cho rằng, những năm đầu thập niên 1930 là "thời kỳ đi tìm nhạc ngữ mới".

Âm nhạc của châu Âu theo chân những người Pháp vào Việt Nam từ rất sớm. Đầu tiên chính là những bài thánh ca trong các nhà thờ Công giáo. Các linh mục Việt Nam được cũng được dạy về âm nhạc với mục đích truyền giáo. Tiếp đó người dân được làm quen với "nhạc nhà binh" qua các đội kèn đồng. Tầng lớp giàu có ở thành thị được tiếp xúc với nhạc khiêu vũ, nhạc cổ điển phương Tây.

Từ đầu thế kỷ XX, các bài hát châu Âu, Mỹ được phổ biến mạnh mẽ ở Việt Nam với các đĩa hát 78 vòng rồi qua những bộ phim nói. Những thanh niên yêu âm nhạc thời kỳ đó bắt đầu chơi mandoline, ghita và cả vĩ cầm, dương cầm.

Thời kỳ này một số nhạc sĩ cải lương bắt đầu soạn các nhạc phẩm, thường được gọi là "bài tây theo điệu ta". Người tiêu biểu cho số đó là nghệ sĩ cải lương Tư Chơi, tức Huỳnh Thủ Trung. Ông đã viết các bài Tiếng nhạn trong sương, Hòa duyên và soạn lời Việt cho một vài ca khúc châu Âu thịnh hành khi đó để sử dụng trong các vở sân khấu như: Marinella trong vở Phũ phàng, Pouet Pouet trong Tiếng nói trái tim, Tango mystérieux trong Đóa hoa rừng, La Madelon trong Giọt lệ chung tình... Nghệ sĩ Bảy Nhiêu cũng có một nhạc phẩm là Hoài tình rất được ưu chuộng.

Không chỉ các nghệ sĩ, trong giới thanh niên yêu nhạc cũng có phong trào chuyển ngữ các bài hát của Tino Rossi, Rina Ketty, Albert Préjean, Georges Milton... mà họ yêu thích. Những nghệ sĩ sân khấu như Ái Liên, Kim Thoa đã được các hãng đĩa của người Pháp như Odéon, Béka mới thu âm các bài ta theo điệu tây. Khoảng thời gian từ 1935 tới 1938, rất nhiều các bài hát của Pháp như Marinella, C'est à Capri, Tant qu'il y aura des étoiles, Un jour loin de toi, Celle que j'aime éperdument, Les gars de la marine, L'Oncle de Pékin, Guitare d'amour, Créola, Signorina, Sous les ponts de Paris, Le plus beau tango du monde, Colombella... mà phần lớn là sáng tác của nhạc sĩ người Pháp Vincent Scotto và của Mỹ như Goodbye Hawaii, South of The Border... đã được phổ biến mạnh mẽ với lời ca tiếng Việt, soạn bởi một nhà báo trẻ tên là Mai Lâm và bởi những tác giả vô danh khác. Ca sĩ Tino Rossi đặc biệt được giới trẻ yêu thích, đã có những hội Ái Tino được thành lập ở Hà Nội, Hải Phòng.

Từ giữa thập niên 1930, nhiều nhóm thanh niên yêu âm nhạc ở Hà Nội đã tập trung cùng sáng tác. Văn Chung, Lê Yên, Doãn Mẫn, ba thành viên của nhóm Tricéa đã viết nhiều ca khúc như Bẽ bàng (1935), Nghệ sĩ hành khúc (1936) của Lê Yên; Tiếng sáo chăn trâu (1935), Bên hồ liễu (1936), Bóng ai qua thềm (1937) của Văn Chung. Tại Huế, Nguyễn Văn Thương viết bản Trên sông Hương năm 1936. Lê Thương ở Hải Phòng cũng có Xuân năm xưa năm 1936.

Giai đoạn từ 1935 tới 1938 được nhạc sĩ Phạm Duy gọi là "thời kỳ chuẩn bị của Tân nhạc Việt Nam".